1896-1924

Câu lạc bộ được thành lập ngày 1 tháng 8 năm 1896 bởi cựu thành viên của ba câu lạc bộ địa phương (FC Turicum, FC Viktoria và FC Excelsior). Một trong số đó là FC Barcelona, Joan Gamper.Zürich vô địch tại Swiss Super League lần đầu tiên trong mùa giải 1901-02, nhưng đã không vô địch lần nữa cho đến 1923-24

1925-1960

Từ năm 1925 đến năm 1960, Zürich không có sự thành công. Câu lạc bộ bị xuống hạng từ Super League 1933-34, chơi trong Challenge League đến năm 1941. Trong 1940-41, họ trở lại Super League, nơi họ ở lại cho đến khi trụ hạng trong năm 1945-46. Họ đã trở lại Super League trong 1947-48 và ở lại trong top flight cho đến khi xuống hạng một lần nữa trong 1956-57. Họ được thăng chức từ Challenge League khiến ttranh cãi về 1958-59 Swiss Super League, kết thúc ở vị trí thứ ba.

1960-1981

Đây là giai đoạn vàng của FCZ. Tại thời điểm này, câu lạc bộ được điều hành bởi chủ tịch huyền thoại Edwin Nägeli và có những cầu thủ như Köbi Kuhn, Fritz Künzli, Ilija Katić, René Botteron, và nhiều hơn nữa. Zürich giành 7 chức vô địch trong những năm 1963, 1966, 1968, 1974, 1975, 1976 và 1981 và cũng giành được Swiss Cup 5 lần trong những năm 1966, 1970, 1972, 1973 và 1976. FCZ cũng đã có một số thành công ở châu Âu, đến được bán kết của cúp châu Âu 1963-64, trước khi để thua Real Madrid và cũng đạt đến bán kết cúp châu Âu 1976-77, nơi họ thua Liverpool.

1981-2005

Sau chức vô địch của câu lạc bộ vào năm 1981, câu lạc bộ đã đi vào một sự suy giảm và năm 1988, câu lạc bộ chuyển đến giữ Challenge League. Zürich trở lại giải đấu hàng đầu năm 1990. Câu lạc bộ đoạt Swiss Cup vào năm 2000, đánh bại Lausanne trong trận chung kết và cũng trong năm 2005 khi đánh bại Luzern.

Những năm gần đây

Ngày 13 tháng 5 năm 2006, FCZ kết thúc 25 năm chờ đợi một chức vô địch với chiến thắng trận chung kết đầy kịch tính với Basel để giành chức vô địch Super League. Họ đã chiến thắng nhờ một bàn thắng được ghi ở phút thứ 93 của Iulian Filipescu. Bàn thắng đã giúp FCZ chiến thắng 2-1 trước Basel. Năm 2006-07, họ cũng giành chức vô địch.Trong mùa giải 2007-08, FCZ đứng ở vị trí thứ ba. Trong mùa giải 2008-09, họ giành chức vô địch, vượt BSC Young Boys. Trong mùa giải 2010-11, FCZ đứng ở vị trí thứ hai.